AI 行业资讯 - FN Neo

中科曙光发布FN Neo全闪存储，为AI推理构建池化KV Cache底座

中科曙光发布全新迭代升级的AI推理原生存储FN Neo，基于池化共享架构实现集群级KV Cache资源调度。实测单阵列带宽160GB/s、亚毫秒级时延，首Token响应时间缩减73%，Token吞吐提升150%，具备99.999%高可靠保障，兼容vLLM、LMCache、Mooncake等主流推理框架。